No Resource, No Benchmarks, No Problem? Evaluating and Improving LLMs for Code Generation in No-Resource Languages
零资源语言LLM代码生成:评估与改进策略
🧭 LLM 适配零资源代码生成
针对零资源编程语言,通过权重差异迁移法在基础模型上注入指令跟随能力,实现低成本专用代码模型部署
📌 工作参考价值(4 点)
- 若业务中存在专有查询语言或领域特定语言(如内部配置DSL、搜索表达式),可以借鉴“基础模型继续预训练+权重差异迁移”的方式,低成本适配LLM,无需昂贵的指令微调
- 在对指令跟随要求高的场景(如Agent任务规划、推荐理由生成),避免直接在指令模型上做进一步预训练,以防损害其指令能力,而是采用先预训练再注入指令能力的两阶段策略
- 构建内部低资源语言基准时,可复用论文的基准构建思路:从有限代码库中提取函数签名、文档字符串和测试用例,自动化生成评测集
- 该方法模型与数据均轻量,适合资源受限的团队,可用于快速验证新语言或新领域的LLM生成效果